Ngày 25 tháng 11 năm 2002, linh mục Phêrô Nguyễn Văn Tốt được Giáo hoàng Gioan Phaolô II bổ nhiệm làm Tổng giám mục Sứ thần Tòa Thánh tại hai nước Togo và Bénin, châu Phi với danh nghĩa Tổng giám mục hiệu tòa Rusticiana.[6] Lễ tấn phong cho tân tổng giám mục được cử hành sau đó vào ngày 6 tháng 1 năm 2003. Chủ phong nghi thức truyền chức là Giáo hoàng Gioan Phaolô II và hai vị phụ phong là Tổng giám mục Leonardo Sandri, Đại diên Quốc vụ khanh, thuộc Ban Thư kí Tòa Thánh và Tổng giám mục Antonio Maria Vegliò,Tổng Thư kí Thánh bộ Công giáo Đông Phương.[9] Tân Tổng giám mục chọn cho mình khẩu hiệu: "Hãy đi rao giảng cho muôn dân".[4]

Ngày 28 tháng 4 năm 2005, Tổng giám mục Nguyễn Văn Tốt, Khâm sứ Toà Thánh tại Benin và Togo trả lời với hãng Thông tấn Công giáo MISNA: “Nhiều linh mục và nữ tu đang rời bỏ Lomé, Togo và các trung tâm đô thị khác để đến các vùng nông thôn bình lặng hơn”. Ông cho bết chi tiết của việc này là Giáo hội Công giáo, giáo dân Công giáo bị nhừng người ủng hộ chính phủ kết tôi vì có lập trường tương đồng, khẳng khít với những yêu cầu của phe đối lập.[11]

Ngày 24 tháng 8 năm 2005, Giáo hoàng Biển Đức XVI bổ nhiệm Tổng Giám mục Tốt làm Sứ thần Tòa Thánh tại Cộng hòa Trung Phi và Tchad.[12] Ông có chuyến hồi hương thăm Việt Nam trong vòng 1 tháng, từ ngày 9 tháng 8 đến ngày 7 tháng 9 với mục đích cử hành một số việc mục vụ, thăm chính quyền tỉnh Bình Dương và chủ yếu thăm thân nhân và bằng hữu.[13] Nói về nỗi nhớ Việt Nam, ông chia sẻ:Là người Việt xa quê, như bao nhiêu người Việt khác, tôi cũng nhớ quê hương. Vì nhớ quê hương, nhớ những người thân ở quê hương, tôi thường xin họ những bao đựng gạo có viết hai chữ Việt Nam sau khi họ đã sử dụng hết gạo, để cất giữ kỷ niệm. Trả lời câu hỏi có nhiều đồn đoán khi Việt Nam và Tòa Thánh phát triển ngoại giao, giám mục Tốt sẽ hồi hương với tư cách Sứ thần, ông trả lời nếu được tín nhiệm, ông sẽ vâng lời. Tuy vậy, tổng giám mục Tốt khẳng định chưa bao giờ ông được đặt vấn đề này và lại vừa được thuyên chuyển nhiệm sở mới.[10]

Sau ba năm mục vụ tại châu Phi, ngày 13 tháng 5 năm 2008, Giáo hoàng bổ nhiệm giám mục Tốt làm Sứ thần Tòa Thánh tại Costa Rica, một quốc gia nằm ở vùng Trung Mỹ.[14][15] Tại Tòa khâm sứ, ông vẫn thường sử dụng các thực phẩm Việt Nam, xây dựng vườn Việt Nam. Nói về công việc mục vụ, ông cho biết sẵn sàng tiếp đón các giáo dân đến với mình. Ông cũng thường thực hiện các công việc mục vụ cơ bản (cử hành lễ, cử hành Bí tích Rửa tội, Rước lễ, Thêm sức,...) cho các giáo xứ khi có lời mời. Chính vì vậy, các giám mục sở tại khuyến khích các linh mục khi có việc cần hãy đến mời Khâm sứ Tòa Thánh. Tổng giám mục Tốt đùa rằng ông như trở thành một vị giám mục phụ tá cho các giám mục tại đây. Được gợi nhắc có khi Tổng giám mục Tốt trở thành Hồng y, ông cho biết không thích làm việc bàn giấy và mong muốn được gần gũi giáo dân.[16]

Sau sáu năm tại Costa Ricca, ngày 22 tháng 3 năm 2014, Giáo hoàng Phanxicô bổ nhiệm ông làm Sứ thần Tòa Thánh tại Sri Lanka, một quốc gia nằm ở vùng Nam Á.[17][18] Trong thời kỳ tại đây, sau vụ khủng bộ về tôn giáo năm 2019, giám mục Nguyễn Văn Tốt họp cùng với các phái đoàn các tôn giáo. Trong cuộc họp này, giám mục Tốt chia sẻ các tôn giáo mong muốn đồng hành cùng nhau để kiến tạo xã hội an toàn.[19]

Trong thông cáo quyết định nhân sự đầu tiên trong năm 2020[5] vào ngày 2 tháng 1 năm 2020, Tòa Thánh chấp nhận đơn từ nhiệm của Tổng giám mục Nguyễn Văn Tốt.[20] Tuy chưa đến giới hạn tuổi tác để về hưu của Giáo hội Công giáo là 75, Tổng giám mục Nguyễn Văn Tốt đã quyết định xin từ nhiệm hồi hưu sớm.[2]